"Castles Crumbling" có sự góp mặt của nữ ca sĩ kiêm nhạc sĩ người Mỹ và cũng là thủ lĩnh của ban nhạc rock Paramore Hayley Williams.[17] Cả hai người đã là bạn từ nhỏ và luôn hỗ trợ lẫn nhau, trong chuyến lưu diễn Speak Now World Tour vào năm 2011, Williams bất ngờ xuất hiện và cả hai đều biểu diễn bài hát "That's What You Get" trong chặng cư trú tại Nashville.[18][19] Trong nhiều năm tiếp theo, Williams cũng xuất hiện trong video âm nhạc từ bài hát "Bad Blood" của Swift và ban nhạc của Williams cũng thường xuyên hỗ trợ trong hành trình lưu diễn Eras Tour.[19] Trước khi danh sách ca khúc được tiết lộ trong lần tái thu âm thứ ba của cô, Swift đã gợi ý về khả năng sẽ hợp tác trong sự kiện gặp gỡ của Ulta Beauty.[20][21]

Cấu trúc

"Castles Crumbling" là một bài hát thán ca theo điệu emo ballad được dẫn dắt qua những giai điệu dương cầm với những tiếng trống sâu lắng, bài hát kể về quá trình trưởng thành khi đang ở trên bệ đỡ và nỗi sợ đánh mất danh tiếng.[15][22] Trong thời gian phát triển album Speak Now, Swift đã từng bị truyền thông soi mói về cuộc sống của cô và những hoạt động thường ngày trở thành chủ đề bàn tán trên các phương tiện xã hội. Khi nữ ca sĩ bắt đầu chuyển thể loại từ nhạc đồng quê sang nhạc pop thì những ý kiến hoài nghi của cô bắt đầu nảy sinh được thể hiện qua những câu hát đầu tiên.[23][24] Nhiều nhà phê bình đã khẳng định bài hát có liên quan đến việc Kanye West làm gián đoạn bài phát biểu của Swift tại Lễ trao giải Video âm nhạc của MTV 2009.[18][25][26] Trong bộ phim tài liệu năm 2020 Miss Americana, cô đã từng kể mình đã bị chế giễu trong suốt thời gian qua.[27] Theo đoạn điệp khúc của bài như một lời khẳng định cho các nghệ sĩ để đảm bảo không một ai bị vướng vào mối quan hệ này.[18] Kế tiếp đoạn điệp khúc là giọng ca của Williams. Tuy nhiên, lời bài hát của nó đa số đều đặt sự áp lực lên Swift, do tầm ảnh hưởng của cô đối với thế hệ trẻ khi giới thiệu họ đến với nhạc đồng quê.[23] Đoạn thứ hai của ca khúc chứng minh về độ thảm khốc của sự nghiệp khi lỡ đi sai một bước: "Power went to my head, and I couldn't stop / Ones I loved tried to help, so I ran them off".[lower-alpha 2][15] Ở đoạn bridge, Swift tự gọi mình là một con "quái vật" được thể hiện trong bài hát năm 2022 "Anti-Hero" của cô.[27][28]

"Castles Crumbling" cũng có chủ đề liên quan đến các bài hát khác trong Speak Now, điển hình như ca khúc "Innocent" cũng mô tả phản ứng của Swift đối với sự cố VMAs vừa qua, trong khi giai điệu u ám của lời bài hát lại mang tính tương phản đối với ca khúc "Long Live" khi nó là một bài thơ ca ngợi cho những người hâm mộ cô.[29][15] Nhiều tờ báo khác nhau cũng đã chỉ ra mối quan hệ của "Castles Crumbling" với những ca khúc trong album Reputation khi nó đều mang cùng chủ đề "thất sủng".[28][30][31] Ngoài ra, Reputation cũng có những lời hát tương đồng, điển hình nhất là bài "Call It What You Want" có những câu như: "My castles crumbled overnight"[lower-alpha 3] và "Bridges burn, I never did learn".[lower-alpha 4][32] Bài hát cũng được ví với ca khúc "Nothing New", một bài vault kết hợp với Phoebe Bridgers nằm trong album Red (Taylor's Version). Callie Alhgrim từ trang Business Insider đã nhận định ca khúc là một bài hát tự viết với giọng ca được góp từ một nghệ sĩ nữ, "neo giằng với sự nghi ngờ đặc thù của bản thân".[22][27] Sự thù hận về bản thân trong đoạn bridge cũng được ví với ca khúc "The Archer" từ album Lover (2019) và "Mirrorball" từ album Folklore (2020).[23][18] Các mối liên hệ khác với những dự án tương lai của Swift đều được thực hiện bởi Mikael Wood từ tờ Los Angeles Times, người đã so sánh âm thanh của bài hát với âm hưởng dân ca độc lập của Folklore và Evermore.[33] Ngoài ra, Jessica Sager từ tạp chí Parade nhận định về nhan đề của ca khúc có thể là một câu trả lời với album "Brick By Boring Brick " (2009) của Paramore, trong bài hát Williams có hát câu "bury the castle" (hãy chôn lâu đài đi).[30]